Đại Việt sử ký toàn thư có ghi thời Lê Hoàn::"Năm Giáp Thân thứ 5 (984): dựng nhiều cung điện, làm điện Bách Bảo Thiên tức ở núi Đại Vân, cột điện dát vàng, bạc, làm nơi coi chầu; bên đông là điện Phong Lưu, bên tây là điện Tử Hoa, bên tả là điện Bồng Lai, bên hữu là điện Cực Lạc, rồi làm lầu Đại Vân, rồi lại dựng điện Trường Xuân làm nơi vua ngủ, bên cạnh điện Trường Xuân dựng điện Long Lộc lợp bằng ngói bạc".

Tại khu vực đền vua Lê Đại Hành, Các nhà khảo cổ đã khai quật một phần nền nền cung điện thế kỷ X. Chứng tích nền cung điện nằm sâu dưới mặt đất khoảng 3m đã được khoanh vùng phục vụ khách tham quan. Tại đây còn trưng bày các phế tích khảo cổ thu được tại Hoa Lư phân theo từng giai đoạn lịch sử: Đinh-Lê, Lý và Trần. Sau chương trình điền dã của dự án hợp tác văn hoá Việt Nam - Phần Lan tiến hành khảo sát; vết tích nền móng cung điện thế kỷ X đã được phát hiện bởi đợt khai quật của Viện Khảo cổ học. Trong số hàng trăm hiện vật cổ tìm thấy tại đây, có những viên gạch lát nền có trang trí hình hoa sen tinh xảo, đặc biệt loại lớn có kích thước 0,78m x 0,48m. Có những viên gạch còn hằn dòng chữ "Ðại Việt quốc quân thành chuyên" (gạch chuyên xây dựng thành nước Ðại Việt). Có những ngói ống có phủ riềm, nằm sâu dưới đất ruộng, khai quật lên, còn lành nguyên và cả những chì lưới, vịt... làm bằng đất nung.[21]

Kết quả đợt khai quật tại khu vực đền Lê Hoàn năm 1997 đã hé mở phần nào diện mạo của kinh đô Hoa Lư: thành quách kiên cố, nhiều kiến trúc lớn và trang trí cầu kỳ mang đậm phong cách nghệ thuật riêng thời Đinh - Lê đơn giản, khỏe khoắn.[22]